OpenAI API 重磅升级:支持函数调用,价格更亲民! 您所在的位置:网站首页 open up more什么意思 OpenAI API 重磅升级:支持函数调用,价格更亲民!

OpenAI API 重磅升级:支持函数调用,价格更亲民!

2023-06-22 19:48| 来源: 网络整理| 查看: 265

OpenAI 近期对其语言模型和 API 进行了一系列重要的更新和优化。所有这些模型都具有 OpenAI 在 3 月 1 日推出的相同的数据隐私和安全保证——客户拥有根据他们的请求生成的所有输出,他们的 API 数据不会用于训练。

API 与功能改进 函数调用能力:为 Chat Completions API 引入了全新的函数调用功能。开发者现在可以描述函数给 gpt-4-0613 和 gpt-3.5-turbo-0613,并使模型智能地选择输出一个包含调用这些函数的参数的 JSON 对象。这是一个更可靠地将 GPT 的功能与外部工具和 API 连接起来的新方法。 API 更新:发布了更新且更易驾驭的 gpt-4 和 gpt-3.5-turbo 版本,为开发者提供了更高的可控性。 扩展上下文版本:发布了新的 gpt-3.5-turbo 16k 上下文版本(相较于标准的 4k 版本)。16k 上下文意味着模型现在可以在单次请求中支持约 20 页的文本。 函数调用示例

What’s the weather like in Boston right now? 现在波士顿的天气如何?

Step 1: OpenAI API

Call the model with functions and the user’s input 用函数和用户的输入调用模型

Request

curl https://api.openai.com/v1/chat/completions -u :$OPENAI_API_KEY -H 'Content-Type: application/json' -d '{ "model": "gpt-3.5-turbo-0613", "messages": [ {"role": "user", "content": "What is the weather like in Boston?"} ], "functions": [ { "name": "get_current_weather", "description": "Get the current weather in a given location", "parameters": { "type": "object", "properties": { "location": { "type": "string", "description": "The city and state, e.g. San Francisco, CA" }, "unit": { "type": "string", "enum": ["celsius", "fahrenheit"] } }, "required": ["location"] } } ] }'

Response

{ "id": "chatcmpl-123", ... "choices": [{ "index": 0, "message": { "role": "assistant", "content": null, "function_call": { "name": "get_current_weather", "arguments": "{ \"location\": \"Boston, MA\"}" } }, "finish_reason": "function_call" }] } Step 2: Third party API

Use the model response to call your API 使用模型的响应来调用你的API

Request

curl https://weatherapi.com/...

Response

{ "temperature": 22, "unit": "celsius", "description": "Sunny" } Step 3: OpenAI API

Send the response back to the model to summarize 将响应返回给模型进行总结

Request

curl https://api.openai.com/v1/chat/completions -u :$OPENAI_API_KEY -H 'Content-Type: application/json' -d '{ "model": "gpt-3.5-turbo-0613", "messages": [ {"role": "user", "content": "What is the weather like in Boston?"}, {"role": "assistant", "content": null, "function_call": {"name": "get_current_weather", "arguments": "{ \"location\": \"Boston, MA\"}"}}, {"role": "function", "name": "get_current_weather", "content": "{\"temperature\": "22", \"unit\": \"celsius\", \"description\": \"Sunny\"}"} ], "functions": [ { "name": "get_current_weather", "description": "Get the current weather in a given location", "parameters": { "type": "object", "properties": { "location": { "type": "string", "description": "The city and state, e.g. San Francisco, CA" }, "unit": { "type": "string", "enum": ["celsius", "fahrenheit"] } }, "required": ["location"] } } ] }'

Response

{ "id": "chatcmpl-123", ... "choices": [{ "index": 0, "message": { "role": "assistant", "content": "The weather in Boston is currently sunny with a temperature of 22 degrees Celsius.", }, "finish_reason": "stop" }] }

The weather in Boston is currently sunny with a temperature of 22 degrees Celsius. 波士顿的天气目前是晴朗的,温度为 22 摄氏度。

新模型发布 GPT-4:发布了包括函数调用在内的更新和改进的 gpt-4-0613 模型,以及具有扩展上下文长度的 gpt-4-32k-0613 模型,以便更好地理解更大的文本。 GPT-3.5 Turbo:gpt-3.5-turbo-0613 模型包括与 GPT-4 相同的函数调用功能,以及通过系统消息更可靠地控制能力,这两个特性使开发者能够更有效地指导模型的响应。 模型退役

​OpenAI 将开始为在 3 月份发布的 gpt-4 和 gpt-3.5-turbo 的初代版本进行升级和退役。在 6 月 27 日,使用稳定模型名称的应用程序(gpt-3.5-turbo,gpt-4 和 gpt-4-32k)将自动升级为新版本。需要更多时间过渡的开发者可以通过在 API 请求中指定模型参数来继续使用旧模型,这些旧模型将一直可用到 9 月 13 日。

价格调整 嵌入模型价格降低:将最受欢迎的嵌入模型 text-embedding-ada-002 的价格降低了 75%,至每 1K tokens $0.0001。 GPT-3.5 Turbo 价格调整:gpt-3.5-turbo 的输入 tokens 的成本降低了 25%,现在,开发者可以仅以每 1K 输入tokens 0.0015和每1K输出tokens0.0015 和每 1K 输出 tokens 0.0015和每1K输出tokens0.002 的价格使用该模型,约等于每美元 700 页。gpt-3.5-turbo-16k 将定价为每 1K 输入 tokens 0.003和每1K输出tokens0.003 和每 1K 输出 tokens 0.003和每1K输出tokens0.004。 总结

更强大的函数调用能力,更新且更易驾驭的模型版本,以及上下文长度的扩展,这些都进一步优化了开发者的用户体验。此外,还调整了模型的定价策略,降低了嵌入模型和 GPT-3.5 Turbo 的价格,进一步提高了其产品的性价比。

参考 Blog: Function calling and other API updates GPT-4 API waitlist 开发文档: Function calling 模型废弃: Deprecations openai/evals: Evals 是一个用于评估 LLMs 和 LLM 系统的框架,同时也是一个基准测试的开源注册表。


【本文地址】

公司简介

联系我们

今日新闻

    推荐新闻

      专题文章
        CopyRight 2018-2019 实验室设备网 版权所有